A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement
A-RSI:零数据多模态自改进的自适应任务刷新
🧭 零数据多模态自改进训练
用训练日志中的奖励方差与准确率动态刷新任务池,实现零外部数据的多模态递归自改进
📌 工作参考价值(4 点)
- 在 RLVR/self-play 持续训练中,用训练日志中的 reward variance 和 accuracy 趋势作为任务池刷新信号,替代依赖验证集或线上 AB,可降低离线指标过拟合风险,适合推荐/广告模型的长期自训练。
- 任务生成与答案校验解耦:用可执行 program/schema 生成题目并单独审计答案,而不是 self-consistency;电商场景可基于商品 schema、用户行为规则生成可编程校验的合成任务,自动清洗噪声 label。
- 维护 model-authored program 库做零外部数据合成,可迁移到商品文案、query 推荐语料增强;用 property-based check 自动验证 reward 与刷新规则,适合离线规模化生产训练数据。
- 自适应刷新机制减少人工调参:监控窗口内学习信号下降(如 reward variance 降低或 accuracy 平台期)再触发新任务生成,能平衡训练成本与效果。